#모델 붕괴

OpenAI, AI로 AI를 학습시킨 계약직 검수자들 해고

OpenAI의 모델 개선을 위해 고용된 수천 명의 계약직 데이터 검수자들이 업무에 AI를 사용하다 적발되어 해고된 사실이 404 Media의 내부 문서 확보로 드러났습니다. 이는 AI가 생성한 텍스트로 학습할수록 모델 성능이 저하되는 '모델 붕괴(model collapse)'를 막기 위해 인간의 검수가 필수적인 상황에서 벌어진 일이라 아이러니합니다. 검수자들은 반복적 단어 사용, em dash 과다 사용 등 AI 사용의 단서를 파악하도록 지시받고 있으며, 내부 문서에는 AI 탐지 도구나 Grammarly 같은 AI 도구 사용 자체도 금지되어 있습니다.

아마존, AI 학습용으로 희귀 도서 절단·파괴 논란

아마존이 희귀 도서를 대량으로 구매해 책등을 잘라내 스캔한 뒤 AI 모델 학습 데이터로 활용하는 것으로 드러났습니다. 404 미디어가 추적 장치를 넣은 희귀 서적이 라스베이거스 아마존 시설에 도착하는 것을 확인했습니다. 인터넷에서 구할 수 없는 절판 도서는 2022년 이전 출간으로 AI 생성 텍스트가 섞이지 않아 모델 붕괴(model collapse)를 피할 수 있는 귀중한 학습 데이터로 주목받고 있습니다.